别丢线索:让长程 LLM Agent 自主分配认知资源
🧭 Agent 长程上下文管理 · 多 episode RL ★ 深度解读
The Chinese University of Hong Kong · Tencent · The Hong Kong University of Science and Technology
CORAL 用可调用的记忆管理与上下文重置工具,让 Agent 自主 checkpoint 并跨 episode 做 RL,GAIA 上 8B 达 42.8% 且 token 成本少 6-7 倍
📌 工作参考价值(4 点)
- 在电商/搜索的 long-horizon Agent(如导购调研、售后多跳查询、广告素材调研)中,可引入显式 Working Memory 工具:用 MM 维护“任务进度 + 已验证事实”,在上下文过大时触发 CO 清空历史只保留 memory。能显著降低线上 token 成本(本工作输入 token 减少 87.4%),并缓解长会话中模型注意力被旧上下文稀释。
- 训练数据可把 multi-episode 轨迹按上下文重置边界拆成独立对话,后续 episode 的输入 = system prompt + user task + 上一 episode 产出的 memory state;这比平铺拼接更符合推理现场,且天然教会模型“从检查点续跑”。推荐在 SFT 时对 observation tokens 做 loss mask,只学 agent 自己的 thought/action。
- 对于弱/中等开源模型,光靠 prompt 加工具可能无效甚至掉点(Qwen3-8B prompting 仅 20.4% vs ReAct 19.4%);建议走“SFT + 简单 RL”。RL 不需要复杂信用分配:把 trajectory 最终 reward 广播到所有 episode 并池化做 group advantage(Multi-episode ARPO),即可提升 checkpointing 策略并稳定输出方差。
- 工程上注意 Memory 污染:CO 重置会永久丢弃历史中可交叉验证的证据,错误事实一旦写入且被 reset 后不可恢复。推荐 MM 写得保守、CO 只在上下文真正难管理时调用;必要时给 memory 条目保留 provenance/引用,以便后续校验。
从交付到有状态探索:重新思考 Agentic 搜索的索引
🧭 Agentic Search 索引原生交互接口 ★ 深度解读
Yonsei University
提出 INDEXACT 索引原生接口,将候选集细化与源文本检查分离,用可复用状态与统计反馈提升多跳搜索证据发现并降低上下文占用
📌 工作参考价值(4 点)
- 在电商/广告 Agent 搜索中,可借鉴“候选集引用 + 统计反馈”解耦:工具返回 SetRef 和候选集大小/条件命中数,而不是直接返回商品或文档列表,减少模型上下文浪费,尤其适用于多轮筛选和长程导购场景。
- 状态化集合操作(FILTER/INTERSECT/UNION/DIFFERENCE)可复用中间候选集,避免重复检索;电商商品库筛选(类目、品牌、价格区间)天然适合基于倒排索引的布尔/位置条件,工程上可直接基于 Lucene 构建,成本较低且可扩展。
- 精确统计(COUNT_DOCS)优于二进制空/非空:实验显示二进制反馈准确率从 74.0 降至 62.0,精确计数让 Agent 判断条件是否过窄/过宽,辅助其决定继续过滤还是读取证据,可应用于导购 Agent 的条件探索。
- 细粒度读取(AROUND/DOCUMENT/RANGE)按需返回局部上下文,避免自动注入无关文本;Agent 可用 AROUND 定位关键词周边内容验证证据,减少非证据 token 占比,提升长上下文稳定性。
通过模块化可执行开发原语进行软件工程智能体框架设计
🧭 Agent 多智体协作与模块化架构
University of Illinois Urbana-Champaign · The Pennsylvania State University
提出 Dev-Primitives 与 HERMES,用依赖感知动态激活的模块化 LLM 原语降低长程软件工程任务的上下文爆炸与语义漂移
📌 工作参考价值(4 点)
- 将电商推荐/搜索 Agent 流水线拆分为多个“原语”模块(召回、排序、创意生成、知识检索等),每个模块携带小型 resident LLM,提供自然语言接口与局部自我修改能力,避免单体 Agent 的上下文爆炸。
- 借鉴依赖感知动态激活:根据任务依赖图只唤醒相关模块,例如商品类目变更时仅激活商品理解与召回模块,而非加载完整系统上下文。
- 引入执行证据回流的诊断机制:将线上指标、bad case、日志等作为证据映射到需要修改的具体模块,进行局部微调或策略调整,降低全链路重训练成本。
- 采用异构 LLM 分层:强模型(如 GPT-5 级)负责全局激活与诊断决策,便宜小模型(如 Qwen3-8B)配置在模块内部执行局部修改,在保持效果接近的同时减少推理成本。
无状态语言智能体:扩展长程自动化研究
🧭 长程 AutoResearch 无状态多智能体框架 ★ 深度解读
Stanford University · Carnegie Mellon University · University of Washington · SambaNova Systems · UC Berkeley
无状态 Agent + 有状态 harness:每次调用重建角色化上下文,用更少 token 实现更强长程搜索
📌 工作参考价值(4 点)
- 构建长程 Agent 系统(自动实验、策略搜索、query 迭代等)时采用“stateful harness + stateless agents”:候选、分数、日志放外部状态,每次调用只注入角色相关摘要,不要让 agent 携带完整历史滚动,避免 context rot 和 token 浪费。
- 对规划者与执行者做角色化上下文隔离:中央规划者看全局结构化 evidence summary,执行单元只看自己的 assignment、本地候选和反馈。搜索推荐 Agent 里可对应“策略器”与“渠道/实验执行器”,减少互相干扰和重复实验。
- 给执行单元显式任务分配,而不是只共享记忆;论文 ablation 显示没有 assignment 时并行 Workers 会重复实现同一功能。多 Agent 做选品、文案、素材生成时,应由 coordinator 把“该试什么”变成具体实验。
- 评估 Agent 系统至少按多个 token 预算点报告;短预算可能逆转方法排名。内部评估搜索/推荐 Agent 如果只跑短预算,很可能选错架构。协调器可以非常便宜(<0.6% tokens),强 Advisor + 弱 Worker 在部分任务上更划算。
AutoCompact:学习何时压缩长程编码智能体上下文
🧭 长程 Agent 上下文主动压缩 ★ 深度解读
Singapore Management University · Nanyang Technological University · Harvard University
训练编码智能体主动决定何时压缩上下文、保留什么工作状态以及如何继续,显著提升长程任务成功率
📌 工作参考价值(4 点)
- 主动压缩而非长度触发:在长程多轮Agent(如电商导购、搜索Agent)中,可引入类似compact()的工具,让模型在任务阶段转换时主动总结上下文,而非等到窗口将满;证明即使上下文未溢出,主动压缩也能提升效果。
- Judge-guided在线纠错数据收集:用更强模型作为judge在线审查agent的每个动作(压缩时机、摘要内容、后续行动),并执行纠正后的动作继续轨迹,能高效收集示范数据,尤其当目标行为在基座模型中很少出现时。
- RL联合优化压缩与任务执行:使用最终任务成功作为唯一奖励,同时优化压解决策、摘要生成和压缩后行动,无需额外的压缩专用奖励;实现上将轨迹按上下文重写点分段,各段共享advantage,简单有效。
- 摘要自一致性检查:除信息覆盖外,还要求摘要记录的状态与提出的下一步行动一致;在业务中可借鉴此标准评估Agent生成的中转状态质量。
超越记忆:用显式信念状态驾驭长程智能体
🧭 长程 Agent 信念状态维护与恢复 ★ 深度解读
Nankai University · Alibaba Group · Tsinghua University
提出 PoS 框架,通过显式信念状态、一致性验证与卡住感知恢复提升长程 LLM Agent 表现
📌 工作参考价值(4 点)
- 在电商/搜索/推荐场景的 Agent 中,用 Entity-State-Relation 结构化信念替代原始轨迹摘要,把“仍需知道什么”(epistemic gaps)和“仍需完成什么”(achievement gaps)分开显式维护,作为每步 action selection 的上下文,避免长会话中状态混淆。
- 引入独立 Belief Sentinel 校验模块(可用同一 LLM 角色分离),在每次信念更新后检查内部一致性(如冲突的实体状态)和外部一致性(与新 observation 是否矛盾),显著降低错误状态污染后续决策的风险。
- 对多轮交互 Agent(商品导购、售后诊断、搜索会话)增加“卡住检测”:监控窗口内 gap persistence、progress stagnation、belief recurrence 三个信号,一旦检测到 Belief Trapping,按动态模式(static/cycle/drift)和 gap 类型注入恢复约束,如抑制无效动作、强制获取判别证据或制造目标状态变化。
- 注意成本均衡:信念维护会增加总体 token 成本,但能降低 Task Agent 的无效 token 消耗和提升成功率;实际业务可先用轻量校验器、缓存信念或降低更新频率,在关键长程任务中开启完整机制。
Iris:攀登搜索前沿
🧭 搜索 Agent 训练与评估方法 ★ 深度解读
AllSpark Team
通过网页超链接反向构造多跳搜索任务、双层轨迹过滤与SFT-RL迭代爬升,训练出开源同参数范围最强的搜索Agent
📌 工作参考价值(4 点)
- 数据合成:在电商/推荐的 QA、选品理由、query 改写数据中,把可搜索锚点(商品标题、类目名、品牌名)改写为描述性引用,消除字符串匹配捷径;再用双条件验证(闭卷答错 + 给知识子图答对)筛出真正需要多跳推理的样本。
- 轨迹过滤:对 LLM 生成的推荐解释/搜索对话轨迹,用滑动窗口 zlib 压缩比快速检测重复和循环;turn 级 judge 从数据中归纳失败模式 rubric,只 mask 最多 10% 差 turn,保留上下文、减少训练噪声。
- RL 工程:长会话训练可用 request-level partial rollout 中断并在下步从 committed prefix 恢复,配合 truncated importance sampling 纠正不同权重版本的 logprob 偏差;集群内部署 GenRM 与摘要器,避免外部 API 依赖。
- 评估/上线:将 context management 与策略能力分开报告,固定工具、上下文预算、judge,分别看无 CM 和有 CM 的结果;识别 CM 收益来自任务是否经常耗尽上下文,高成本重试只作为上限探索,不作为默认配置。
HyMem:通过信息隔离实现长程智能体的分层上下文管理
🧭 Agent 长程上下文分层隔离 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Nanjing Artificial Intelligence Research of IA
提出训练无关的分层上下文隔离框架 HyMem,将规划、执行、子任务推理与结构化记忆分离,显著提升长程 agent 的 Pass@1
📌 工作参考价值(4 点)
- 把 planner 与 executor 上下文彻底拆开,执行结果只回传 schema 化 RESULTS/RETURN,原始工具输出、重试和中间推理留在临时 context;适合电商导购 Agent 在多轮搜索与商品比较时,防止详情页噪声淹没主任务。
- 复杂子任务用独立的 isolated reasoning session 处理,返回结论+证据+confidence,主 planner 不累积推理过程;可直接用于优惠计算、多条件筛选、价格/评论冲突验证等需要多跳分析的导购场景。
- 结构化记忆分三类:episode/working/tool memory,fold 时只保留里程碑、当前目标和可复用工具经验;可用于长会话用户偏好记忆与跨会话召回。
- 确定性 fold triggers(planner ctx 利用率>0.99、连续失败>=3、tool calls>=10 等)可照搬,训练无关、即插即用;适合在现有 ReAct/搜索推荐 Agent 上快速压测上下文稀释问题。
用户中心多轮智能体的意图驱动情境追踪
🧭 Agent 情境状态追踪 ★ 深度解读
University of Electronic Science and Technology of China · Shenzhen International Graduate School, Tsinghua University
提出训练无关的IDSS框架,显式分离工具事实与任务状态,通过约束传播提升多轮Agent完成率与效率
📌 工作参考价值(4 点)
- 在电商多轮导购/客服 Agent 中,可把工具返回(商品、订单、库存、履约)解析为带 provenance 的结构化事实层,与“用户目标/缺失变量/约束”状态分离;这能显著降低长对话中的事实遗漏和错误执行。
- 借鉴跨层约束传播:把预算、配送时效、库存/券可用性、退换政策等建模为可被新事实更新的约束;一旦违反就 block 不可行意图并自动激活替代路径,减少无效工具调用和违规下单。
- 用 <state> 块让 LLM 自更新任务状态并回注下一轮 prompt,不增加额外 LLM 调用;同时把历史中的原始工具返回替换为事实层引用,可低成本控制 prompt 长度,适合线上低延迟场景。
- 变量打标 askable / retrievable / derivable 可指导 agent 何时问用户、调工具或推导,尤其适合需要偏好澄清的电商导购与推荐式对话。
CogChat:异构知识图谱增强设计对话 AI 的认知接地
🧭 知识图谱增强对话 · 异构 Graph Transformer
Design AI Lab, Hanyang University · Human-Centered AI Design Institute, Hanyang University
用个人异构知识图谱 + HGT 选择相关节点注入 LLM,提升设计对话的上下文保留与个性化意图理解
📌 工作参考价值(5 点)
- 面向电商/广告/搜索推荐场景的可借鉴点:
- 用户级动态知识图谱做长程上下文:在客服/导购/创意 Agent 中,实时从对话里抽取实体(商品、属性、类目、偏好)与关系,构建个人异构图谱,替代仅依赖 sliding window 的上下文;用 HGT 或轻量图注意力做子图选择,避免全量 KG 造成 prompt 噪声和延迟。
- 同名词/多义词消歧:异构图中实体类型和关系结构可区分同一词在不同上下文(如“苹果”作为品牌或品类),适合电商搜索 query 理解与个性化召回;将图结构注入 LLM 可提升意图识别准确率。
- 主动探测问题生成:借鉴 CogChat 同时生成 intentional 和 exploratory probing questions 的机制,在推荐对话中用于偏好澄清、query 改写建议(如“你指的是 A 还是 B?”),降低用户决策负担并收集偏好信号。
- 工程实现:可用轻量抽取器构建图,HGT 只负责节点打分与选择,LLM 负责最终生成,保持低延迟;先在特定垂直领域(服装、家居、3C)试点,注意图谱更新频率和图谱规模控制。
链式递归语言模型实现多轮推理
🧭 多步推理 · 新鲜推理链架构
University of Maryland
将长上下文推理拆成多轮新鲜调用,通过摘要与黑板传递状态,避免错误累积
📌 工作参考价值(3 点)
- 在电商对话Agent中,将复杂查询(如多条件筛选+排序)拆成子任务,每个子任务独立调用LLM,用黑板共享中间结果,对抗长上下文遗忘
- 商品知识图谱多跳推理(如“同等价位好评率最高品牌”)可采用新鲜推理根,每步仅关注相关子图,阻断错误传播
- 推荐解释生成需融合多源信息,可引入可检查可修正的中间产物机制(如结构化摘要),提升解释准确性与可调试性
Agentic 上下文管理:将 Agent 内存与成本作为生命周期和架构问题解决
🧭 Agent 上下文生命周期管理与成本控制
提出 Agentic 上下文管理五原语(架构、摄入、范围界定、预判、压缩与巩固),将上下文从存储问题重构成全生命周期,实现了线性 token 成本且精度不降
📌 工作参考价值(4 点)
- 上下文生命周期管理思路可直接落地:电商对话推荐 Agent 常因长对话历史丢失关键偏好,借鉴五原语(特别是 scoping 与 anticipating)能主动选择当前轮次相关上下文,避免历史淹没关键信号。
- Token 成本工程价值高:论文揭示 naive 上下文累积导致 token 成本平方增长,仅用摘要则精度断崖。业务中可采用 验证性压缩(validated compaction)技术,在保持线性成本的同时保留召回精度,对高频对话系统降本明显。
- 多租户上下文服务化:参考 Maximem Synap 的多租户实现,搜索/推荐 Agent 可将上下文管理抽象为独立服务,支持组织级层次结构,便于电商平台同时服务多个商家或频道。
- 跨会话记忆与遗忘机制:跨会话的 ingesting 与 consolidation 原语可用来构建用户长期偏好记忆,同时通过遗忘陈旧信息防止上下文膨胀,适合需要多轮交互的导购 Agent。
长程搜索中上下文腐烂的诊断与缓解
🧭 上下文腐烂诊断与缓解策略
Shanghai Jiao Tong University · Fudan University · SII · GAIR
揭示长上下文导致LLM放弃回答的现象,提出上下文管理与拒绝采样两种缓解策略
📌 工作参考价值(4 点)
- 长程搜索Agent(如电商多步查询)可采用滑动窗口、摘要等上下文管理方法防止性能衰减,论文给出的七种方法对比可作为选型参考
- 后验拒绝采样策略:对Agent输出进行一致性过滤或置信度校准,过滤掉因上下文过长而冒出的放弃性答案,提升回答可靠性
- 诊断思路复用:可在线评估并监控模型在长上下文下的“放弃率”,一旦发现显著上升,自动触发上下文压缩或截断
- 工程实现上,将上下文管理与拒绝采样组合部署,可在不增加过多成本的情况下获得稳定收益
MemGUI-Agent:基于主动上下文管理的端到端长时域移动GUI智能体
🧭 Agent 上下文管理优化
浙江大学 · 快手科技
提出 Context-as-Action,将上下文管理作为一级动作压缩历史,让 8B 模型在长时域移动任务上超越更大规模模型
📌 工作参考价值(4 点)
- 长时域任务中引入“折叠历史”机制:在电商客服、导购 Agent 等多轮交互场景,可将对话历史分为“动作摘要+状态摘要+近期细节”三字段,关键信息不丢失且上下文长度可控,避免 ReAct 模式下的 token 爆炸与事实稀释。
- 将上下文管理作为策略动作统一训练:在推荐对话或任务型 Agent 中,把“忘记/压缩/总结”等上下文操作与业务动作(如查询商品、推券)纳入同一策略模块,端到端 SFT 可让模型学会主动压缩冗余信息,提升长会话稳定性。
- 构造结构化动作-上下文标注数据:可借鉴 MemGUI-3K 构建思路,为 Agent 交互轨迹增补“折叠/保留”等上下文管理标注,用于微调小尺寸模型,使其在长任务中推理成本更低、窗口利用率更高。
- 小模型通过上下文管理超越大模型零样本:该工作证明 8B 模型通过主动上下文管理可超越 235B 模型的零样本性能,适合资源受限的电商场景(如端侧智能助手)低成本部署。
TokenPilot:双粒度缓存高效的智能体上下文管理
🧭 Agent的上下文缓存管理 ★ 深度解读
Zhejiang University · University of Electronic Science and Technology of China · Xi'an University of Electronic Science and Technology · HomologyAI
通过前缀稳定化和残值驱动的驱逐实现缓存感知的上下文管理,大幅降低长时程LLM代理推理成本
📌 工作参考价值(4 点)
- 前缀稳定化:将系统提示中的动态变量(如工作目录、时间戳)替换为静态占位符,并将工具定义移至提示尾部,最大化跨轮次KV缓存命中。可直接应用于多轮对话式推荐助手,降低每次推理的预填充成本。
- 带安全网的观测压缩:对工具返回的环境消息(HTML、终端输出等)进行规则化瘦身和去重,同时保留恢复工具,允许代理在需要时拉取完整内容。类似思路可运用于电商Agent的页面抓取和处理,减少冗余token但不丢失关键信息。
- 残值驱动的生命周期管理:不立即清除已完成子任务的上下文,而是通过轻量估计器评估其剩余价值,只有在不再被后续任务依赖时才批量驱逐。这种保守策略能维持缓存连续性,适用于长期运行的商品搜索或营销任务流。
- 缓存感知的成本建模:评估上下文管理时,应直接统计缓存命中与未命中的token数,而非仅看总输入token,以此指导系统优化,使成本降低体现在实际计费上。
HyperTool:以可执行代码块聚合工具调用,减少 Agent 上下文膨胀与推理碎片
🧭 工具增强 Agent 的执行抽象与上下文管理 ★ 深度解读
Shanghai Jiao Tong University · IQuest Research · Beijing University of Aeronautics and Astronautics
提出 HyperTool 可执行接口,将多步确定性工具调用封装为单个代码块,使模型可见执行粒度更粗,大幅降低上下文消耗并提升复杂工具使用准确率。
📌 工作参考价值(4 点)
- 在 Agent 工程中封装工具子程序:当工作流中包含一系列无歧义、不需高层推理的 API 调用(如搜索→过滤→聚合→排序)时,可像 HyperTool 一样用代码块将其合并为单一对外动作,避免每步都往主线径写观察结果,大幅节省 token 开销。
- 训练数据合成的策略:借鉴其“组合任务构建+轨迹展开+多轮验证”流水线,可以自动生成高质量的工具使用 SFT 数据。关键点是强制约束来自真实工具返回值,并用执行过滤和证据一致性检查淘汰无效轨迹,确保模型学到正确的块边界与内部逻辑。
- 统一动作空间优于混合接口:消融实验表明,对中小模型让所有交互统一走 HyperTool 接口(而非原子调用与代码块混合)可避免动作空间异质性带来的认知负载,直接提高准确率。在电商 Agent 设计中,如果模型需要同时处理简单 API 和复杂子流程,统一为代码执行入口可能是更好的选择。
- 注意执行安全与超时设置:实际部署时,代码块可能触发恶意行为或无限循环,务必引入沙箱隔离与严格的超时限制(尤其对复杂聚合块可给予更长的单次执行超时)。同时对关键中间返回值做必要日志,平衡可解释性。
SearchSwarm:训练长程深度搜索 Agent 的委托智能
🧭 Agent 长程任务委托与上下文管理 ★ 深度解读
Ant Group · Tsinghua University · Peking University · Renmin University of China
通过 harness 引导主 Agent 分解并委托子任务,再用 SFT 内化委托行为,在 30B 规模实现长程搜索 SOTA
📌 工作参考价值(4 点)
- Harness 设计可直接迁移到电商多 Agent 场景:主 Agent 负责商品调研、竞品分析等长程任务时,借鉴「写简报必须含任务背景、已确认事实、未解决疑点」的原则,让子 Agent 有足够上下文产出高质量结果,减少主 Agent 令牌消耗和重复探索。
- SFT 数据合成策略:利用强模型当主 Agent 搭配弱模型当子 Agent 收集轨迹,迫使主模型学会更严谨的任务分解与结果验证,可用于训练电商客服、供应链优化等场景中的协调 Agent。
- 委托能力泛化证明单 Agent 推理也能受益:即使去掉子调用工具,训练后的模型在单 Agent 任务上表现仍有提升,说明通过多 Agent 轨迹 SFT 可增强模型的结构化问题分解能力,适用于推荐系统复杂查询的逐步推理。
- 强制引用报告可提升溯源可信度:要求子 Agent 报告附带行内引用,主 Agent 最终回答也需附来源,这对电商商品推荐、信息核查等需要可解释输出场景有直接借鉴意义;实现方式是在 prompt 中约束输出格式并以此过滤训练数据。
SAM: 面向长程推理智能体的状态自适应记忆
🧭 长程推理 Agent 记忆管理 · 状态自适应记忆 ★ 深度解读
GSAI, Renmin University of China · Beijing Academy of Artificial Intelligence
提出状态自适应记忆框架 SAM,通过记忆线索与意图驱动回忆让智能体从长历史中重建决策支撑信息,无需重训练骨干模型
📌 工作参考价值(4 点)
- 独立的记忆模块与主干解耦:记忆模型独立训练、跨主干复用,适合在已有电商对话/推荐 Agent 上植入长程记忆,避免改造主干模型。
- 分页存储 + 轻量线索:将冗长的交互历史分页并压缩为 compact cues,仅保留线索在上下文,释放 context window;可借鉴到多轮对话或搜索推荐场景的长序列管理中。
- 意图驱动的按需回忆:只有在需要时才根据当前状态选择线索召回原始页面并重建所需信息,比一把摘要或窗口截断更精准,适合电商场景中先分散探索、后期需综合早前信息的任务。
- OAT-GRPO 训练范式:将记忆调用建模为树结构,用专家委员会评估可恢复性并奖励下游任务成功,为训练独立的记忆模块提供了一种闭环方案,可迁移到需要优化长期决策质量的 Agent 训练中。